Support linking statically with GnuTLS on OS X

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4158 3789f03b-4d11-0410-bbf8-ca57d06f2519

Add GNUTLS_CFLAGS and GNUTLS_LDFLAGS to allow GnuTLS compile/link arguments to be customized (for instance, to force building against the static libraries)

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4157 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Move Get{C,S}Security from Security class to separate classes.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4156 3789f03b-4d11-0410-bbf8-ca57d06f2519

"OS/X" = "OS X"

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4155 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Cleanup] Remove obsolete comment in Security class.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4154 3789f03b-4d11-0410-bbf8-ca57d06f2519

Use proper methods for pixel conversion in the cursor code as it previously
wasn't handling all cases correctly.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4153 3789f03b-4d11-0410-bbf8-ca57d06f2519

The tight decoder is really working on pixel buffers, not Pixel arrays. This
distinction is generally unnoticed, but it can cause problems when the target
buffer is not in native endian order.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4152 3789f03b-4d11-0410-bbf8-ca57d06f2519

Revert commit 3784 as it was incorrect. A "Pixel" is always expected to be in
native endian, and hence requires no swapping. The code in tightEncode.h
however is working on pixel buffers, not Pixel arrays, so that's where the
real bug was and is hereby properly fixed.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4151 3789f03b-4d11-0410-bbf8-ca57d06f2519

Hide the GNUTLS options in vncviewer when support isn't present.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4150 3789f03b-4d11-0410-bbf8-ca57d06f2519

OS X has the PAM library, but only 10.6 has the headers, so check for those.  NOTE: a compiler check is forced because, when cross-compiling on 10.6 using the 10.5 or 10.4 SDK, the preprocessor will detect the headers in /usr/include, but the compiler can't compile them, since the SDK does not have those headers.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4149 3789f03b-4d11-0410-bbf8-ca57d06f2519

Sync with libjpeg-turbo 1.0.1

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4148 3789f03b-4d11-0410-bbf8-ca57d06f2519

Support building with older versions of gnutls; Fix gnutls detection when building statically using build-xorg

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4147 3789f03b-4d11-0410-bbf8-ca57d06f2519

Attempt to link statically with gnutls if -static is specified, so that Xvnc and other binaries will be cross-compatible with other Linux distros

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4146 3789f03b-4d11-0410-bbf8-ca57d06f2519

Add ifdef:s around TLS specific code in Unix vncviewer.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4145 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Bugfix] Include rfb/Security.h in the source tarball.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4144 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Add code which process new GUI-exposed security options.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4143 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Expose encryption and authentication params in the "Options" window.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4142 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Add -dridir parameter to Xvnc to specify DRI drivers directory from
command line.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4141 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] When building X.Org 7.5, use xserver 1.8.X to reduce number of DLL
dependencies (1.7.X cannot use SHA1 implementation from libgcrypt).

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4140 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] build-xorg: apply patches from xorg-7.5-patches directory only.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4139 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Apply some downstream patches to get Xvnc build via build-xorg working.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4138 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] build-xorg: don't build hardware specific DRI drivers.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4137 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] build-xorg: don't build X11 documentation.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4136 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Update X.Org 7.5 packages to the latest releases.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4135 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Handle .tar.gz Mesa archives in build-xorg script correctly.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4134 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Improve download-xorg-7.5 script to work with .tar.gz archives.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4133 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Bugfix] Fix vncconfig.exe compilation (broken since r4123).

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4132 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Add missing PAM sources (fixes commit r4128).

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4131 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Add more --disable- flags to Xorg's configure to compile Xvnc only.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4130 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Compile Xvnc parallely, if possible.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4129 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Implement *Plain security types on the server side and use
PAM for credential validation on UNIX.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4128 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Implement *Plain types on the client side.

Signed-off-by: Martin Koegler <mkoegler@auto.tuwien.ac.at>
git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4127 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Bugfix] Set pvfb->pixelFormatDefined only if format is defined.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4126 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Bugfix] Properly report transport errors to GNUTLS.

Signed-off-by: Martin Koegler <mkoegler@auto.tuwien.ac.at>
git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4125 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Bugfix] Xvnc: define 32bit pixel format correctly when enabled.

Signed-off-by: Martin Koegler <mkoegler@auto.tuwien.ac.at>
git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4124 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Set default security types as follows:

1. gnutls support is compiled in:
- server: VeNCrypt,TLSVnc,VncAuth
- client: VeNCrypt,X509Vnc,TLSVnc,X509None,TLSNone,VncAuth,None

2. gnutls support is disabled:
- server: VncAuth
- client: VncAuth,None

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4123 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Extend Security class to allow different default sectypes for server/viewer.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4122 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Bugfix] Return also "standard" security types (except VeNCrypt type) as
VeNCrypt subtypes. This is same behavior as original VeNCrypt implementation.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4121 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Bugfix] Check return codes from gnutls library every time.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4120 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Cleanup] Ensure all files use LF as newline control character, not CR+LF.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4119 3789f03b-4d11-0410-bbf8-ca57d06f2519

Fix typo in SIMD dispatch routines which was causing 4:2:0 upsampling to be used instead of 4:2:2 when decompressing JPEG images using SSE2 code

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4118 3789f03b-4d11-0410-bbf8-ca57d06f2519

Sync with libjpeg-turbo 1.0.1

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4117 3789f03b-4d11-0410-bbf8-ca57d06f2519

Fix build with YASM

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4116 3789f03b-4d11-0410-bbf8-ca57d06f2519

Handle erroneous Huffman codes

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4115 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Bugfix] Extend encoding range checks to handle negative encodings well.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4113 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Bugfix] Fix memory leak in InputDevice::keyEvent function.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4112 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Bugfix] vncserver: accept <+optname> option when specified as the first one.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4111 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Rename CSecurityTLSBase class to CSecurityTLS.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4110 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Merge CSecurityTLS and CSecurityX509 classes into CSecurityTLSBase class.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4109 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Rename SSecurityTLSBase source/class to SSecurityTLS.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4108 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Cleanup] Merge SSecurityTLS and SSecurityX509 classes into SSecurityTLSBase class.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4107 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Implement VeNCrypt X509 subtypes on the client side.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4106 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Implement X509 VeNCrypt subtypes on the server side.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4105 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Bugfix] Add "#error" directives to client-side TLS sources to avoid wrong usage.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4104 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Create VeNCrypt security types in Security class.

Signed-off-by: Martin Koegler <mkoegler@auto.tuwien.ac.at>
git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4103 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Use SecurityType also as configuration for VeNCrypt.

Signed-off-by: Martin Koegler <mkoegler@auto.tuwien.ac.at>
git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4102 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Pass Security instance to {C,S}SecurityVeNCrypt.

Signed-off-by: Martin Koegler <mkoegler@auto.tuwien.ac.at>
git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4101 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Add more debug logging into {C,S}SecurityVeNCrypt.

Signed-off-by: Martin Koegler <mkoegler@auto.tuwien.ac.at>
git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4100 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Minor fixes in previous commit.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4099 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Support VeNCrypt Security types in standard security type parser.

Signed-off-by: Martin Koegler <mkoegler@auto.tuwien.ac.at>
git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4098 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Use U32 as internal SecurityType type.

Signed-off-by: Martin Koegler <mkoegler@auto.tuwien.ac.at>
git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4097 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Move VeNCrypt security subtypes into Security.h.

Signed-off-by: Martin Koegler <mkoegler@auto.tuwien.ac.at>
git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4096 3789f03b-4d11-0410-bbf8-ca57d06f2519

Use {C,S}Security instead of {C,S}SecurityStack objects in VeNCrypt routines.

Signed-off-by: Martin Koegler <mkoegler@auto.tuwien.ac.at>
git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4095 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Client now uses security types from -SecurityTypes parameter instead of hardcoded list.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4094 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Cleanup] Remove unused CConnection::setClientSecTypeOrder function.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4093 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Add xserver19.patch.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4092 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Pass "serverClient" to QueryColors when compiling against X.Org 1.9.X.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4091 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Fetch root window pointer directly from pScreen if possible.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4090 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Improve privates handling in vncHooks to be compatible with X.Org 1.9.X.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4089 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] Enable compilation against X.Org 1.9.X source.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4088 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Cleanup] Remove leftover code.

Signed-off-by: Martin Koegler <mkoegler@auto.tuwien.ac.at>
git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4087 3789f03b-4d11-0410-bbf8-ca57d06f2519

Reuse the getpasswd() function in filter mode so that the new line is stripped from the input

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4086 3789f03b-4d11-0410-bbf8-ca57d06f2519

Add a filter mode option to vncpasswd

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4085 3789f03b-4d11-0410-bbf8-ca57d06f2519

Include vncviewer man page in OS X package

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4084 3789f03b-4d11-0410-bbf8-ca57d06f2519

64-bit support exists in OS X versions prior to 10.6

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4083 3789f03b-4d11-0410-bbf8-ca57d06f2519

Don't require GTK when building pixman module

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4082 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Doc] Include information about running "autoreconf -fiv" in the README file.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4080 3789f03b-4d11-0410-bbf8-ca57d06f2519

winvnc: Declare the main() function as WinMain()

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4074 3789f03b-4d11-0410-bbf8-ca57d06f2519

winvnc: Declare argv as "char**" instead of "const *char[]"

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4073 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Bugfix] Include VNCServerWin32.h before QueryConnectDialog.h to ensure winsock2.h is included before windows.h.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4072 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Bugfix] Third parameter of GetLocaleInfo is LPTSTR. Also compute the 4th
parameter more precisely.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4071 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Bugfix] Declare d3des.h functions inside `extern "C" {}` block.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4070 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Bugfix] Re-add zlib.dsp file which was accidentally removed in r4026.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4069 3789f03b-4d11-0410-bbf8-ca57d06f2519

Sync with libjpeg-turbo 1.0.0

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4068 3789f03b-4d11-0410-bbf8-ca57d06f2519

Extend the default keyboard table with the Windows keys so that they can
be used in the default modifier mapping.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4067 3789f03b-4d11-0410-bbf8-ca57d06f2519

Map up the rest of the standard modifiers (if available).

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4066 3789f03b-4d11-0410-bbf8-ca57d06f2519

Use a switch statement instead of a series of if:s for setting up the modmap
as the readability was quite low.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4065 3789f03b-4d11-0410-bbf8-ca57d06f2519

Reinstate Caps Lock in the default keyboard map. It's not documented why
it's removed, and patched servers with it on have been running fine for
years.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4064 3789f03b-4d11-0410-bbf8-ca57d06f2519

XConvertCase() in xorg-xserver 1.5 is simply a macro that maps to XkbConvertCase(), so not only if this #ifdef unnecessary, but it breaks the Xorg 7.4 build.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4063 3789f03b-4d11-0410-bbf8-ca57d06f2519

vncviewer now successfully runs on Windows/x64.  And there was much rejoicing (yay...)

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4062 3789f03b-4d11-0410-bbf8-ca57d06f2519

Fix 64-bit Windows issues

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4061 3789f03b-4d11-0410-bbf8-ca57d06f2519

Some compilers (most notably, MinGW64) don't define min and max

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4060 3789f03b-4d11-0410-bbf8-ca57d06f2519

Not necessary to include windows.h if winsock2.h is already included.  If both are included, then winsock2.h must be included first.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4059 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Bugfix] Don't link libvnc.so against libXi.la, libdix.la and libxkb.la; use
symbols from Xorg binary instead.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4058 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Bugfix] Use always XkbConvertCase instead of XConvertCase when compiling
against X.Org 1.8.X and newer. Othewrise keysyms are not mapped correctly
to keycodes.

Reference: https://bugzilla.redhat.com/show_bug.cgi?id=586406

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4057 3789f03b-4d11-0410-bbf8-ca57d06f2519

#define TJ_411 for backward compatibility

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4056 3789f03b-4d11-0410-bbf8-ca57d06f2519

FreeBSD sometimes sets host_cpu to amd64 on 64-bit systems.  Handle this case so --host doesn't have to be specified explicitly.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4055 3789f03b-4d11-0410-bbf8-ca57d06f2519

Fix VPATH and out-of-tree builds when using MinGW

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4054 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Bugfix] Use AC_CHECK_LIB instead of pkgconfig, it is not available on OS X.
Enable gnutls by default if it is present.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4053 3789f03b-4d11-0410-bbf8-ca57d06f2519

[Development] winvnc: Add -ShowTrayIcon param which controls if winvnc system
      tray icon is showed. Thanks to Antoine Martin.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@4052 3789f03b-4d11-0410-bbf8-ca57d06f2519